#катастрофическое забывание

Руководство по созданию агента в PyTorch с дифференцируемой памятью, приоритизированным реплеем и мета-обучением, позволяющее адаптироваться к новым задачам без потери предыдущих навыков.

'MIT доказали, что on-policy обучение с подкреплением сохраняет ранее приобретённые способности лучше, чем супервизированное дообучение, за счёт минимизации прямого KL-расхождения между базовой и адаптированной моделью.'

Исследователи EPFL разработали MEMOIR — инновационную систему для непрерывного, надежного и локального обновления больших языковых моделей, которая превосходит существующие методы.